Ограничение размера переменной res только 80 битами с помощью модификатора __bits(80). В задаче выходная переменная должна быть 8 бит (1 байт).